Vào tháng 7 năm 285, Hoàng đế Diocletian đánh bại địch thủ là Carinus và trở thành vị hoàng đế duy nhất của La Mã. Ông nhận thấy rằng Đế chế La Mã quá lớn và có quá nhiều áp lực từ bên trong lẫn các mối đe dọa từ bên ngoài, chỉ một vị hoàng đế thì khó lòng cai trị được. Do đó, ông chia Đế chế ra làm hai nửa Đông và Tây (với ranh giới ở vùng Đông Ý). Hai bên sẽ có hai vị hoàng đế ngang quyền nhau cùng mang Đế hiệu Augustus. Sự phân chia này là tiền thân của Đế chế Tây La Mã và Đế chế Đông La Mã.

Hoàng đế Diocletian trở thành Augustus của nửa Đông và bạn ông, Maximian, trở thành Augustus của nửa Tây. Tới năm 293 thì quyền lực tiếp tục được chia nhỏ ra hơn nữa, mỗi Augustus sẽ chọn ra một hoàng đế trẻ hơn gọi là Caesar để giúp mình trị nước. Galerius trở thành Caesar của Diocletian còn Constantius Chlorus là Caesar của Maximian.

Thể chế này được gọi là "Tứ đầu chế" (tiếng Anh: Tetrarchy) bởi các học giả đời sau.[46] Chính quyền này nhằm giúp những cuộc kế vị trở nên êm đẹp hơn: ở mỗi nửa của Đế chế, một Caesar rồi sẽ lên thay một Augutus và chọn ra Caesar mới cho mình. Năm 305, Diocletian và Maximian cùng thoái vị để nhường ngôi cho các Caesar. Tới lượt cháu của Galerius là Maximinus lên làm Caesar ở phía Đông và Flavius Valerius Severus lên làm Caesar ở phía Tây cho Constantius. Sử gia Edward Gibbon nói rằng thể chế này hoạt động trơn tru là vì sự gắn bó của các hoàng đế với nhau.

Bên cạnh việc xây dựng phương pháp cai trị mới, Hoàng đế Diocletian, vốn là một người ngoại đạo và lo lắng khi thấy số lượng tín đồ Thiên chúa giáo đang tăng lên rất nhanh, đã ngược đãi họ với mức độ nặng nề chưa từng thấy kể từ thời Nero.